導(dǎo)讀:"網(wǎng)絡(luò)蜘蛛" 學(xué)名Spider,又叫"網(wǎng)絡(luò)爬蟲"! 關(guān)于網(wǎng)絡(luò)蜘蛛的概述這里就不多講了,今天我主要想說的是關(guān)于蜘蛛的爬行設(shè)計(jì)的方式與方法。我們可以分為2種:那么什么是深度優(yōu)先? 什么
發(fā)表日期:2019-05-08
文章編輯:興田科技
瀏覽次數(shù):13008
標(biāo)簽:
"網(wǎng)絡(luò)蜘蛛" 學(xué)名Spider,又叫"網(wǎng)絡(luò)爬蟲"! 關(guān)于網(wǎng)絡(luò)蜘蛛的概述這里就不多講了,今天我主要想說的是關(guān)于蜘蛛的爬行設(shè)計(jì)的方式與方法。
我們可以分為2種:
那么什么是深度優(yōu)先? 什么是廣度優(yōu)先?有什么用? 上海SEO (SWJ) 下面為大家講解!本人學(xué)知淺薄只會用通俗的話與道理與大家分析,如有錯(cuò)誤請及時(shí)聯(lián)系我 所以還請大家多多見諒包含!
一種是深度優(yōu)先策略,一種是廣度優(yōu)先策略! 以下我們就圍繞這2點(diǎn)進(jìn)行分析SWJ非常歡迎大家一起交流、學(xué)習(xí)與探討!
深度優(yōu)先顧名思義就是讓網(wǎng)絡(luò)蜘蛛盡量的在抓取網(wǎng)頁時(shí)往網(wǎng)頁更深層次的挖掘進(jìn)去 講究的是深度!也泛指: 網(wǎng)絡(luò)蜘蛛將會從起始頁開始,一個(gè)鏈接一個(gè)鏈接跟蹤下去,處理完這條線路之后再轉(zhuǎn)入下一個(gè)起始頁,繼續(xù)跟蹤鏈接!
以下我發(fā)張圖 大家看下: (下面這張是 簡單化的網(wǎng)頁連接模型圖 其中A為起點(diǎn) 也就是蜘蛛索引的起點(diǎn)!)
總共分了5條路徑 供蜘蛛爬行! 講究的是深度!
(下面這張是 經(jīng)過優(yōu)化的網(wǎng)頁連接模型圖! 也就是改進(jìn)過的蜘蛛深度爬行策略圖!)
根據(jù)以上2個(gè)表格 我們可以得出以下結(jié)論:
圖1:路徑1 ==> A --> B --> E --> H 路徑2 ==> A --> B --> E --> i
路徑3 ==> A --> C 路徑4 ==> A --> D --> F --> K --> L
路徑5 ==> A --> D --> G --> K --> L
經(jīng)過優(yōu)化后
圖2: (圖片已經(jīng)幫大家標(biāo)上方向了!)
路徑1 ==> A --> B --> E --> H 路徑2 ==> i
路徑3 ==> C 路徑4 ==> D --> F --> K --> L 路徑5 ==> G
深度爬行的優(yōu)點(diǎn)是:網(wǎng)絡(luò)蜘蛛程序在設(shè)計(jì)的時(shí)候相對比較容易些把 其他我也沒發(fā)覺有什么優(yōu)點(diǎn)... 還有就是 蜘蛛的這種 "勇往直前"的精神 值得學(xué)習(xí)下! ^_^
深度爬行的缺點(diǎn)是:缺點(diǎn)么多了一點(diǎn)點(diǎn) 呵呵! 每次爬行一層總要向"蜘蛛老家" 數(shù)據(jù)庫訪問一下。問問老總有必要還要爬下一層嗎! 爬一層 問一次.... 引用一句高人的話 如果一個(gè)蜘蛛不管3721不斷往下爬 很可能迷路更有可能爬到國外的網(wǎng)站去.. 本來目標(biāo)是中文網(wǎng)站 因?yàn)镮p的問題 國外Ip做了中文站的話.... 就容易去別人"老家"了..這樣不僅增加了系統(tǒng)數(shù)據(jù)的復(fù)雜度更是增加的服務(wù)器的負(fù)擔(dān) 我想沒有一家搜索公司會愿意則樣的把,...除非腦子"秀"了 .. ^_^
接下來 我們介紹下普遍使用的 廣度優(yōu)先策略 大家休息下 喝杯咖啡 看的也累把 我寫的也累.... ^^
廣度優(yōu)先在這里的定義就是層爬行。什么叫蜘蛛層爬行?就是一層一層的爬行 按照層的分布與布局 去索引處理與抓取網(wǎng)頁! 當(dāng)然SE不會派一個(gè)蜘蛛去的 每層會派一個(gè)或多個(gè)蜘蛛Spider去抓取內(nèi)容!
(下面這張就是 廣度優(yōu)先策略圖(層爬行圖))
大家一看就明白了把 聰明的人 下面的文章也不需要看了 答案已經(jīng)告訴你了 ^ ^
根據(jù)以上表格 我們可以得出以下結(jié)論路徑圖:
路徑1 ==> A 路徑2 ==> B --> C --> D 路徑3 ==> E --> F --> G
路徑4 ==> H --> i --> K 路徑5 ==> L
廣度爬行的優(yōu)點(diǎn)是:廣度相對深度 對數(shù)據(jù)抓取更容易控制些! 對服務(wù)器的負(fù)栽相應(yīng)也明顯減輕了許多! 爬蟲的分布式處理 使的速度明顯提高! 其他的想也可以想到拉!
廣度爬行的缺點(diǎn)是:暫時(shí)還沒觀察到有什么缺點(diǎn) 呵呵 就好比 p+CSS樣式表(層布局)一樣道理 你覺得有什么缺點(diǎn)嗎?難道是新人不會這個(gè)問題? ^ ^不會不要緊 下載這本電子書去看看 <> 下載地址: http://www.seo-sh.cn/zl/seoqita/122.html
其他還有什么建議意見 請多多指教與批評 上海SEO負(fù)責(zé)人SWJ 非常歡迎各位SEO愛好者 一起交流 學(xué)習(xí)與探討SEO優(yōu)化技術(shù),網(wǎng)站策劃也可以 ^_^ 聯(lián)系方式見首頁底部!
轉(zhuǎn)自上海SEO http://www.seo-sh.cn
上一篇:
對百度蜘蛛對TITLE處理的思考!更多新聞
2019
現(xiàn)在隨處都是音樂網(wǎng)站。那對于音樂站該怎么去推廣呢?這個(gè)問題我考慮了很久。而且是個(gè)DJ站!現(xiàn)在我來說說我的DJ站推廣方法。qq群網(wǎng)站推廣法。用幾十個(gè)qq,每個(gè)qq加入幾十個(gè)群,前
View details
2023
作為現(xiàn)代城市中必不可少的一部分,停車場早已融入我們的日常生活。。然而,隨著城市人口的激增和車輛數(shù)量的...
View details
2023
引言在當(dāng)今數(shù)字化的時(shí)代,擁有一個(gè)功能強(qiáng)大且易于使用的虛擬空間網(wǎng)站平臺非常重要。。虛擬空間網(wǎng)站平臺建設(shè)...
View details
2023
偃師網(wǎng)絡(luò)推廣在今天的數(shù)字化時(shí)代變得不可或缺。通過制定可行的推廣計(jì)劃和選擇合適的工具和策略,企業(yè)可以利用網(wǎng)絡(luò)推廣實(shí)現(xiàn)業(yè)務(wù)增長。然而,要想獲得成功,企業(yè)需要不斷學(xué)習(xí)并及時(shí)調(diào)整策略以適應(yīng)不斷變化的市場需求。偃師網(wǎng)絡(luò)推廣將繼續(xù)為企業(yè)獲得成功和實(shí)現(xiàn)業(yè)務(wù)增長提供重要的支持和機(jī)會。
View details